1
Do Chamado Direto à API para a Abstração do LangChain
AI010Lesson 5
00:00

Além da Solicitação Simples

Ao começar com Modelos de Linguagem de Grande Porte (LLMs), os desenvolvedores geralmente usam chamadas diretas à API (como a biblioteca Python do OpenAI) para enviar um prompt e receber uma conclusão. Embora funcional, essa abordagem torna-se inviável à medida que os aplicativos crescem.

O Problema da Estado-Indiferença

Modelos de Linguagem de Grande Porte são intrinsecamente estado-indiferentes. Cada vez que você envia uma mensagem, o modelo "esquece" quem você é e o que você disse anteriormente. Cada interação começa em branco. Para manter uma conversa, você precisa passar manualmente todo o histórico de volta ao modelo a cada vez.

A Solução do LangChain

O LangChain introduz o ChatOpenAI wrapper do modelo. Isso não é apenas um invólucro por si só — é a base para modularidade. Ao abstrair a chamada do modelo, podemos trocar modelos, injetar memória e usar modelos sem precisar reescrever toda a nossa base de código.

O Cenário do Pirata
Imagine um e-mail de cliente escrito em gíria "de pirata". Para traduzir isso em uma resposta corporativa formal, uma chamada direta à API exige codificação rígida das instruções. Com o LangChain, separamos o "Estilo" (Pirata versus Formal) do "Conteúdo" (O E-mail) usando abstração.
main.py
TERMINALbash — 80x24
> Ready. Click "Run" to execute.
>
Question 1
Why do we say LLMs are "stateless"?
They do not have access to the internet.
They cannot generate the same response twice.
They do not inherently remember previous messages in a conversation.
They are only capable of processing text, not data states.
Challenge: Initialize ChatOpenAI
Solve the problem below.
You are building a creative writing assistant and need to initialize your first LangChain model.

Your task is to create a ChatOpenAI instance named my_llm with a temperature of 0.7 to allow for more creative (non-deterministic) responses.
Task
Write the Python code to import and initialize the model.
Solution:
from langchain_openai import ChatOpenAI
my_llm = ChatOpenAI(temperature=0.7)